Thái là hậu duệ đời thứ năm của sĩ tộc họ Phạm ở huyện Thuận Dương, quận Nam Dương thời Tây Tấn. Người đầu tiên của họ Phạm thăng tiến trên quan trường là Phạm Quỹ - ông cụ của Thái – làm đến Ung Châu thứ sử, Tả tướng quân, được tiếng là quan tốt. Quỹ có ba con trai là Quảng, Trĩ và Kiên. Quảng làm đến Đường Ấp lệnh nhà Đông Tấn, cũng có tiếng tốt như cha [2]. Kiên làm đến Hộ quân trưởng sử, nổi tiếng vì vụ án Thiệu Quảng; con Kiên là Khải làm đến Hoàng môn thị lang, nổi tiếng về thanh đàm [3]. Trĩ mất sớm, có con là Uông. Phạm Uông – ông nội của Thái – được xem là người có công chấn hưng họ Phạm thời Đông Tấn, làm đến An bắc tướng quân, Từ, Duyện 2 châu thứ sử. Uông sanh ra Khang và Ninh. Khang mất sớm, Ninh – cha của Thái – làm đến Dự Chương thái thú [4].

Phạm Uông và Phạm Ninh đều là bậc danh nho đương thời; Phạm Kiên và Phạm Khải cũng có tác phẩm lưu truyền ở đời.